Galerius đã được sinh ra ở Serdica,[13] mặc dù một số học giả hiện đại xem xét địa điểm chiến lược nơi sau này ông cho xây dựng một cung điện mang tên người mẹ của ông - Felix Romuliana (Gamzigrad) - nơi sinh và nơi chôn cất ông [10] Cha ông là một người Thracia và mẹ ông, Romula là một phụ nữ Dacia, bà đã rời bỏ Dacia vì các cuộc tấn công của người Carpi [14]:19 Ban đầu ông nối nghiệp cha mình, đó là một người chăn bò, mà nhờ đó ông đã nhận được tên họ của mình, Armentarius (tiếng Latin: armentum).

Ông đã phục vụ trong quân đội dưới triều đại của hoàng đế Aurelianus và Probus. Trong năm 293, khi chế độ Tứ Đầu chế được thiết lập, ông đã được chỉ định là Caesar cùng với Constantius Chlorus,và cưới con gái của Diocletianus, Valeria (sau này được biết là Galeria Valeria), và cùng thời điểm đó, ông được trao quyền cai quản các tỉnh Illyria. Sau một vài năm tiến hành các chiến dịch chống lại người Sarmatia và người Goth trên khu vực sông Danube, ông đã được giao quyền chỉ huy các quân đoàn trên biên giới phía đông của đế quốc. Ngay sau khi được bổ nhiệm, Galerius được phái tới Ai Cập để dập tắt cuộc khởi nghĩa ở các thành phố Busiris và Coptos.[15]